Paved with True Intents: Intent-Aware Training Improves LLM Safety Classification Across Training Regimes
用真实意图铺路：意图感知训练提升LLM安全分类
🧭 意图感知训练增强安全分类
University of Groningen · University Politehnica of Bucharest · NVIDIA
将用户意图作为显式中间信号，跨SFT/DPO/蒸馏/RL范式提升安全分类器鲁棒性，GRPO奖励意图保真度达最优
📌 工作参考价值（4 点）
- 在电商/Agent安全审核中，可将用户意图作为中间特征引入分类器，用少量人工标注（如AIMS仅1724条）提升对困难样本的判别力
- 借鉴意图条件蒸馏思路：在蒸馏安全判别模型时，让学生模型同时学习推理过程与最终意图，优于仅蒸馏推理
- 将意图保真度设为奖励函数，通过GRPO等RL方法直接优化安全分类的忠实性，可离线或在线微调
- 构建“提示→意图→标签”三阶段pipeline，在线上推理时引入意图生成步骤，以可控延迟换取更高准确率，形成帕累托前沿